1 . 计算方式

1 如果 y = 1

$$P(1) = \hat{y}$$

错误为

$$error = -log(\hat{y})$$

2 如果 y = 0

$$P(0) = 1 - \hat{y}$$

错误为

$$error = -log(1-\hat{y})$$

错误为

$$error = -(1-y)(\log(1-\hat{y})) - y\log(\hat{y})$$

损失函数为

$$Error Func = -\frac{1}{m}\sum_{i=1}^m(1-y_i)(\log(1-\hat{y}_{i}) + y_{i}\log(\hat{y}_i)$$

其中

$$\hat{y} = \sigma(Wx^{(i)} + b)$$

最终得到

$$E(W, b) = -\frac{1}{m}\sum_{i=1}^m(1- y_i )(\log(1- \sigma(Wx^{(i)} + b) ) + y_{i}\log( \sigma(Wx^{(i)} + b) )$$

1 . 计算步骤

1 随机w1…wn 和 b 得到一条线段（函数）

2 对每个点按照学习率 计算得到新的 w1…wn 和 b

3 重复过程让 错误率最小